Šokantni izveštaj Antropika: "Napredni AI izmiče ljudskoj kontroli, treba nam usporavanje"
Dodajte Kurir u vaš Google izborAmerička tehnološka kompanija Anthropic upozorila je da ubrzani razvoj veštačke inteligencije može dovesti do scenarija u kojem AI sistemi počinju da unapređuju sami sebe, čime se smanjuje ljudska kontrola nad njihovim razvojem. Ovakav scenario više nije prikazan kao teorijska spekulacija, već kao realna mogućnost u srednjem roku razvoja tehnologije.
U izveštaju se naglašava da je model Klod već duboko integrisan u interne procese kompanije i da ima sve veću ulogu u razvoju sopstvenih sistema. To dodatno otvara pitanje da li se granica između alata i autonomnog aktera postepeno briše.
Klod već piše većinu koda u Anthropicu
Prema podacima iz izveštaja, model Klod danas generiše više od 80 odsto programskog koda koji se koristi u sistemima Anthropica, dok je pre samo godinu i po dana taj udeo bio zanemarljiv. Ovakav skok ukazuje na ekstremno brzu promenu u načinu na koji se softver razvija unutar kompanije.
Posebno je značajno to što se Klod sve više koristi ne samo kao pomoćni alat, već kao primarni generator rešenja. To znači da ljudski inženjeri sve češće prelaze iz uloge autora u ulogu nadzornika. Klod je u aprilu uspeo da ispravi greške za koje bi ljudskim stručnjacima bile potrebne godine rada, što dodatno pojačava zabrinutost oko brzine napretka sistema. Ovakve performanse pokazuju da AI već u pojedinim segmentima nadmašuje tempo ljudskog rešavanja problema.
U oblasti istraživačkog rada, Klod je u 64 odsto slučajeva predložio bolji sledeći korak od istraživača koji rade na istom zadatku. Taj procenat je dodatno porastao u odnosu na prethodni period, što ukazuje na ubrzano jačanje sposobnosti modela da učestvuje u naučnom procesu.
Granica između pomoći i autonomije postaje nejasna
Kompanija je testirala i AI agente u složenim bezbednosnim zadacima, gde su sistemi u 800 sati rada postigli 97 odsto uspešnosti, dok su ljudi u istom zadatku imali znatno slabiji rezultat u kraćem vremenskom okviru. Ovi podaci dodatno otvaraju pitanje koliko dugo će ljudi ostati centralni faktor u razvoju AI sistema.
Ipak, Anthropic naglašava da Klod i dalje nema sposobnost da samostalno bira koje probleme treba rešavati. To znači da, uprkos tehničkoj snazi, ključna odluka i dalje ostaje u ljudskim rukama. U svom izveštaju opisuju tri moguća pravca razvoja veštačke inteligencije. Prvi uključuje usporavanje napretka i postepenu integraciju postojećih sistema u ekonomiju, dok drugi podrazumeva nastavak razvoja uz očuvanje ljudske kontrole nad istraživačkim pravcima.
Treći scenario je najradikalniji i predviđa pojavu AI sistema koji bi mogli samostalno da dizajniraju i unapređuju sopstvene naslednike. Zbog toga kompanija čak razmatra mogućnost privremenog usporavanja razvoja, uz uslov da sličan pristup usvoje i drugi veliki akteri u industriji.
Rasprava o kontroli i regulaciji sve hitnija
Anthropic je najavio i seriju razgovora sa regulatorima, istraživačima i predstavnicima civilnog društva kako bi se otvorilo pitanje kontrole razvoja napredne veštačke inteligencije. Cilj je da se uspostave jasnija pravila pre nego što sistemi postanu još autonomniji.
U pozadini ovih razgovora ostaje sve jače pitanje da li je trenutni tempo razvoja održiv. Sve veća uloga AI u sopstvenom razvoju dodatno pojačava zabrinutost da bi kontrola nad tehnologijom mogla postati sve teža kako sistemi budu napredovali.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.